İsrail yasa dışı gözetlediği Filistinliler üzerinden yapay zeka modeli geliştiriyor

Guardian’ın, İsrail merkezli +972 Dergisi ve İbranice yayın yapan Local Call ile ortaklaşa yürüttüğü bir araştırma, İsrail’in, işgal altındaki Filistin topraklarında gerçekleştirdiği geniş çaplı gözetleme faaliyetlerinden elde ettiği büyük hacimli telefon konuşmaları ve metin mesajlarıyla bir yapay zeka modelini eğittiğini tespit edildi.

Proje hakkında bilgi sahibi kaynaklara göre İsrail istihbaratına bağlı “Unit 8200” isimli birim, izlediği kişiler hakkındaki soruları yanıtlayabilen ve topladığı devasa hacimlerdeki izleme verilerine ilişkin içgörüler sağlayabilen sofistike bir sohbet robotu benzeri araç yaratmak için model oluşturmaya başladı.

Yetenekleri bakımından ABD Ulusal Güvenlik Ajansı (NSA) ile kıyaslanabilecek olan dinleme ajansı Unit 8200, Ekim 2023’te Gazze saldırılarının başlamasının ardından sistemin geliştirilmesini hızlandırdı. Model geçen yılın ikinci yarısında hâlâ eğitiliyordu. Henüz konuşlandırılıp konuşlandırılmadığı belli değil.

İnsana benzer metinler üreten bir derin öğrenme sistemi olan büyük dil modelini (LLM) oluşturma çabaları, projeyi denetlediğini söyleyen eski bir askeri istihbarat teknoloji uzmanının halka açık bir konuşmasında kısmen ortaya çıktı. Chaked Roger Joseph Sayedoff adlı eski yetkili, geçen yıl Tel Aviv’de düzenlenen bir askeri yapay zeka konferansında dinleyicilere “Mümkün olan en büyük veri setini oluşturmaya ve İsrail devletinin Arapça olarak sahip olduğu tüm verileri toplamaya çalıştık” dedi. Sayedoff, modelin “psikotik miktarlarda” veri gerektirdiğini söyledi.

‘Batı Şeria’daki her insanın ne yaptığını biliyorum’

Girişim hakkında bilgi sahibi olan üç eski istihbarat yetkilisi LLM’nin varlığını doğruladı ve yapımıyla ilgili ayrıntıları paylaştı. Unit 8200’ün yapay zeka modellerinin son yıllardaki gelişimine aşina olan bir kaynak “Yapay zeka gücü artırıyor” dedi: “Bu sadece silahlı saldırıları önlemekle ilgili değil, insan hakları aktivistlerini takip edebiliyorum, (Batı Şeria’daki) C Bölgesi’ndeki Filistin inşaatlarını izleyebiliyorum. Batı Şeria’daki her insanın ne yaptığını bilmek için daha fazla araca sahibim.”

‘İstilacı ve insan haklarıyla bağdaşmayan bir girişim’

Öte yandan İnsan Hakları İzleme Örgütü’nde (HRW) kıdemli bir gözetim araştırmacısı olan Zach Campbell, Unit 8200’ün askeri işgal altındaki Filistinlilerin yaşamları hakkında önemli kararlar almak için yapay zekaları kullanmasından duyduğu endişeyi dile getirdi: “Bu bir tahmin makinesi. Ve nihayetinde bu tahminler insanları suçlamak için kullanılabilir.”

Campbell, bir yapay zeka modelini eğitmek için gözetleme materyallerinin kullanılmasının “istilacı ve insan haklarıyla bağdaşmaz” olduğunu ve işgalci bir güç olarak İsrail’in Filistinlilerin mahremiyet haklarını korumakla yükümlü olduğunu söyledi. “Suç işlediğinden şüphelenilmeyen kişilerden alınan son derece kişisel verilerin, daha sonra şüphe oluşturmaya yardımcı olabilecek bir aracı eğitmek için kullanılmasından bahsediyoruz” diye ekledi.

İsrail Savunma Kuvvetleri (IDF) sözcüsü ise Guardian’ın yeni LLM ile ilgili sorularını yanıtlamayı reddetti ancak ordunun “Ortadoğu’daki düşman örgütlerin terörist faaliyetlerini tespit etmek ve engellemek için çeşitli istihbarat yöntemleri kullandığını” söyledi. 

Filistinli bir dijital haklar ve savunuculuk grubu olan 7amleh’in direktörü Nadim Nashif, Filistinlilerin “İsrail’in laboratuvarında bu teknikleri geliştirmek ve yapay zekayı silah haline getirmek için denekler haline geldiklerini, tüm bunların bu teknolojilerin bir halka hükmetmek, hayatlarını kontrol etmek için kullanıldığı bir apartheid ve işgal rejimini sürdürmek amacıyla yapıldığını” söyledi. 

Geniş bir Arapça iletişim havuzu

Unit 8200 son yıllarda bir dizi yapay zeka destekli araç geliştirdi. The Gospel ve Lavender gibi sistemler Gazze’deki savaşta muharebe operasyonlarına hızla entegre edilenler arasındaydı ve ölümcül saldırılar için potansiyel hedeflerin (hem insanlar hem de yapılar) belirlenmesine yardımcı olarak İsrail ordusunun bölgeye yönelik bombardımanında önemli bir rol oynadı.

OpenAI’nin 2022’nin sonlarında ChatGPT’yi piyasaya sürmesinin ardından, Unit 8200’deki yapay zeka uzmanları chatbot benzeri daha kapsamlı bir araç geliştirmeyi öngördüler. İsrail ordusu, Hamas liderliğindeki 7 Ekim saldırılarına yanıt olarak yüz binlerce yedek subayı seferber ettiğinde, LLM’lerin inşasında uzmanlığa sahip bir grup subay özel sektörden birime geri döndü. Bazıları Google, Meta ve Microsoft gibi büyük ABD teknoloji şirketlerinden geldi.

Kaynaklar, uzmanlardan oluşan küçük ekibin kısa süre içinde Arapça anlayan bir LLM oluşturmaya başladığını, ancak mevcut ticari ve açık kaynaklı Arapça dil modellerinin sözlü Arapça yerine resmi iletişim, edebiyat ve medyada kullanılan standart yazılı Arapça kullanılarak eğitildiğini tespit ettikten sonra sıfırdan başlamak zorunda kaldıklarını söyledi.

Projeye aşina olan iyi konumdaki bir kaynak Guardian’a bu geniş iletişim havuzunun Lübnan ve Filistin lehçelerindeki konuşmaları da içerdiğini söyledi. Sayedoff sunumunda LLM’yi oluşturan ekibin “sadece bizden nefret eden lehçelere odaklandığını” söyledi.

Unit 8200, üretici yapay zeka teknolojisini deneyen casus kurumları arasında yalnız değil. ABD’de CIA, açık kaynaklı bilgileri incelemek için ChatGPT benzeri bir aracı kullanıma sundu. İngiltere’nin casus ajansları da kendi LLM’lerini geliştiriyor ve bunların da açık kaynaklı veri kümeleriyle eğitildiği söyleniyor.

‘Nüfus üzerinde kontrol sağlıyor’

Birim 8200 tarafından kullanılan daha küçük ölçekli makine öğrenimi modellerine aşina olan birkaç mevcut ve eski İsrail istihbarat görevlisi, yapay zekanın Filistinlilerin kapsamlı gözetimini, özellikle de Batı Şeria’da bir kontrol biçimi olarak daha etkili hale getirdiğini belirtti.

Kaynaklardan ikisi, modellerin İsrail ordusunun ele geçirilen telefon konuşmalarını otomatik olarak analiz etmesine yardımcı olduğunu ve işgale öfke duyan ya da askerlere veya yasadışı yerleşimlerde yaşayan insanlara saldırmak isteyen Filistinlileri tespit ettiğini vurguladı. Bir tanesi, ordu Batı Şeria’daki köylere girdiğinde, yapay zekanın “sorun çıkarma” anlamına geldiğini düşündüğü kelimeleri kullanan insanları tespit etmek için kullanıldığını söyledi.

Üçüncü bir kaynak ise “Çok daha fazla insanın bilgisine dayanarak hareket etmemizi sağlıyor ve bu da nüfus üzerinde kontrol sağlıyor” dedi: “Elinizde bu kadar çok bilgi olduğunda bunu istediğiniz amaç için kullanabilirsiniz. Ve İsrail ordusunun bu konuda çok az kısıtlaması var.” (Dış Haberler)